Năm 1936, ông về Hà Nội tìm việc làm và gia nhập Nghiệp đoàn để đi vận động công nhân trong các công xưởng, nhà máy; mua đọc báo Tin tức, Bạn dân, Ngày nay, và vận động các tầng lớp cá nhân quyên tiền bạc ủng hộ báo Đảng cùng đồng chí Phan Bôi (tức Hoàng Hữu Nam); tổ chức huấn luyện cho các nhóm công nhân có tình cảm về giai cấp vô sản, sơ giải các phương pháp tổ chức đấu tranh và vận động nhân dân bầu đồng chí Khuất Duy Tiến vào Nghị viện thành phố Hà Nội và đồng chí Phan Thanh (quê ở Quảng Nam) vào Nghị viện Dân biểu Bắc Kỳ.

Tháng 6/1937, ông được kết nạp vào Đảng, sau đó được tổ chức bầu cử vào ban lãnh đạo Nghiệp đoàn của các giới lao động ở Hà Nội và trực tiếp vận động phong trào gồm giới thợ xẻ và thợ mộc, được cử vào Ban lãnh đạo công nhân đấu tranh đòi tăng lương, giảm giờ làm, cải thiện đời sống, chống đánh đập, phân biệt đối xử, tạo quyền bình đẳng.

Cuối tháng 4/1940, ông bị mật thám Pháp bắt và đưa về Sở mật thám, sau đó, đưa ông đi đày tại trại tù “căng” cùng với các đồng chí hoạt động cách mạng khác ở các vùng như: Hà Nội, Nam Định, Hải Phòng, Thái Bình, Hải Dương… Tháng 8/1944, theo chỉ thị của Trung ương và quyết định của tổ chức, ông được bố trí vượt ngục để ra ngoài hoạt động bí mật và được Trung ương Đảng cử làm Trưởng ban Công vận Xứ uỷ Bắc Kỳ.

Đầu tháng 5/1945, ông được phân công phụ trách hai tỉnh: Nam Định và Hà Nam.